|
15.01.2026 12:00 Uhr |
Der Eigenbetrieb großer Sprachmodelle (Large Language Models, LLMs) ist längst kein Hexenwerk mehr. Leistungsfähige Open-Source- und Open-Weight-Modelle wie Llama, Mistral und Qwen stehen kostenlos zur Verfügung, und brauchbare Hardware kann man zu erschwinglichen Preisen kaufen. Zudem unterstützen komfortable Anwendungsumgebungen wie LM Studio oder Ollama auch technisch weniger erfahrene Anwender bei der Installation und Integration.
Der Eigenbetrieb verspricht einige Vorteile. Insbesondere hat man die volle Kontrolle über das genutzte Modell und verarbeitet sowohl Nutz- als auch Trainingsdaten selbst. Gerade der letzte Punkt macht Selfhosting für viele Unternehmen attraktiv, die sensible Informationen nicht an US-amerikanische oder gar chinesische Dienste übermitteln möchten. Zudem entfällt die Abhängigkeit von kommerziellen LLM-Anbietern.
Zwar entledigt man sich mit dem Hosting von LLMs auf der eigenen Infrastruktur so mancher kniffliger Rechtsfragen. Dennoch gilt es, einige Punkte zu beachten. Insbesondere die Datenschutz-Grundverordnung (DSGVO) und das Haftungsrecht können Probleme machen, wenn man allzu sorglos mit selbst betriebenen LLMs umgeht.